SDXL 搭配 Control Net Union
SDXL 搭配 Control Net Union
下載 Controlnet Union 模型
這裡前往 https://huggingface.co/xinsir/controlnet-union-sdxl-1.0/tree/main | 2.51 GB
檔案名稱:diffusion_pytorch_model_promax.safetensors
把下載的檔案放置在 ComfyUI/models/controlnet/ 檔案夾中。
下載 Openpose 模型
這裡前往 https://huggingface.co/xinsir/controlnet-openpose-sdxl-1.0/tree/main | 2.5 GB
檔案名稱:diffusion_pytorch_model.safetensors。下載後可以自行修改檔案名稱,變成 controlnet-openpose-sdxl
或是其他你覺得比較好記憶的名稱。
把下載的檔案放置在 ComfyUI/models/controlnet/ 檔案夾中。
下載外掛節點
在 ComfyUI 裡面,開啟 Manager > Custom Nodes Manager。在左上角的搜尋欄位輸入想要的外掛名稱,安裝即可
搜尋 Controlnet Aux
安裝 comfyui_controlnet_aux 這個外掛
搜尋 comfyroll
安裝 Comfyroll Studio 這個外掛
幾個常用模式
Canny
- 目的:偵測影像中的邊緣。
- 比喻:想像用鉛筆描繪物體的輪廓。它會突出主要線條和邊界的位置。
- 用在何處:適合產生物件結構很重要的影像,如細緻的線條藝術或建築設計。
Depth 深度
- 用途:了解影像的深度或 3D 結構。
- 比喻:想像看著一張照片,了解什麼離你較近,什麼離你較遠。
- 用在何處:有助於創造具有深度感的影像,因此對於透視很重要的寫實場景非常有用。
MLSD - 多層次直線偵測器 Multi-Level Straight Line Detector
- 目的:偵測影像中的直線,例如建築照片中的直線。
- 比喻:這就像使用直尺在草圖上畫直線。在草圖上畫出直線,突顯建築物或其他幾何形狀的結構。
- 用在何處:適用於建築設計、城市風景或任何以直線為主的場景。
normalmap_bae 法線貼圖分析
- 目的:指示物體表面朝哪個方向。
- 想像成表面是凹凸不平,或是曲線。用來生成詳細紋路 texture 與 3D 物件的真實感很有幫助。
OpenPose 開放姿勢
- 目的:透過識別身體上的關鍵點(關節)來偵測人體姿勢。
- 比喻:想像畫一個棍子圖,火柴人來表示一個人如何站立或移動。
- 用在何處:非常適合人物位置和移動非常重要的影像,例如動作鏡頭或角色設計。
Scribble 塗鴉
- 目的:允許使用者繪製簡單的草圖或塗鴉,ControlNet會將這些草圖或塗鴉解讀為最終影像的結構。
- 比喻:就像畫出粗略的草稿,然後讓藝術家將其轉換成精細的藝術品。
- 用在何處:非常適合想要快速勾勒出概念,然後讓 AI 補足細節的情況。
Segmentation, seg_ufade20k 分割
- 目的:根據內容(如天空、地面、物件)將影像分割成不同的區域或片段。
- 比喻:想像用不同的顏色為圖片的不同區域上色,以區分每個元素。
- 用在何處:適用於需要將影像的不同部分分開處理的場景,例如複雜的環境或建立分層構圖時。